Instruction Bleed: Cross-Module Interference in Prompt-Composed Agentic Systems
指令渗漏:提示组合智能体系统的跨模块干扰
🧭 Agent 提示组合干扰评估
University of Illinois Urbana-Champaign
形式化提示组合Agent中的行为泄漏(CBL),提出三通道探测协议并确认内容通道产生显著干扰效应
📌 工作参考价值(4 点)
- 构建多模块提示组成的搜索/推荐 Agent 时,需评估模块间干扰:无共享变量也可能通过上下文窗口的自注意力产生行为泄漏,建议在部署前对模块组合进行联合测试。
- 可直接复用三通道探测协议(volume、content、form)来量化生产 Agent 的 CBL,其中 content 通道最易触发干扰,可作为最小可行测试集。
- 效应虽未引起单次推荐翻转(Cohen’s d=0.63),但在高吞吐场景下微小偏移会随决策次数积累,评估时不能只看 QA 准确率,必须监控分布级偏移。
- 工程上可在提示编排中引入明确的分隔标记或模块隔离策略(如约束注意力范围),以减少非预期的跨模块信息混合。